Tăng tần số đồng hồ nhân nhân Linux mang lại sự tăng cường lớn trong khối lượng công việc của AI

Cuối tuần qua, một kỹ sư của Google đã đề xuất nâng tần số đồng hồ kernel Linux từ 250 Hz lên 1.000 Hz. Trang công nghệ Phoronix đã nhanh chóng đánh giá tác động của thay đổi này thông qua một loạt thử nghiệm A/B. Kết quả cho thấy lợi ích nổi bật nhất là trong việc tăng tốc AI LLM. Ở những khía cạnh khác, sự khác biệt có thể nằm trong giới hạn sai số của việc benchmark hệ thống.

Sự thay đổi về mức tiêu thụ điện của hệ thống trong so sánh là tối thiểu. Để tóm tắt, kỹ sư Google Qais Yousef đã đề xuất rằng nhân Linux hiện tại nên mặc định tần số bộ đếm là 1.000Hz, nhằm mang lại cho người dùng Linux khả năng phản hồi tốt hơn và hoàn thành công việc nhanh hơn.

Yousef tin rằng việc chuyển sang tần số 1.000 Hz sẽ giải quyết các vấn đề liên quan đến 250 Hz trong quyết định lập lịch, như thời gian chia không chính xác, mất cân bằng tải, cập nhật số liệu bị trì hoãn và các phức tạp khác. Cuối ghi chú cập nhật, kỹ sư này đã suy nghĩ về mức tiêu thụ điện năng của hệ thống, nghi ngờ rằng TICK nhanh hơn có thể dẫn đến tiêu thụ điện cao hơn. Hệ thống thử nghiệm là máy tính mạnh mẽ AMD Ryzen 9 9950X với 16 nhân 32 luồng, 32GB RAM và card đồ họa Radeon RX 7900 XTX.

Chúng ta thấy bộ thử nghiệm đầu tiên về hiệu suất xử lý của Llama LLMs, đo bằng số token trên giây. Đây có thể là minh chứng lớn nhất cho việc chuyển sang 1.000 Hz, với lợi ích từ sự thay đổi tăng lên gần 10%. Máy chủ web Nginx cũng cho thấy lợi ích tương tự khi xử lý nhiều yêu cầu hơn mỗi giây. Các kết quả thử nghiệm khác bao gồm xử lý hình ảnh với lợi ích 250 Hz, thao tác cơ sở dữ liệu SQL không có sự thay đổi, trò chơi có lợi ích nhất quán nhưng khó nhận thấy ở 1.000 Hz, trong khi duyệt web, dựng hình và biên dịch đều giữ nguyên.

Thú vị là sự khác biệt về tần số không gây ra thay đổi đáng kể trong mức tiêu thụ điện năng của CPU. Chúng tôi đã chia sẻ một số số liệu và biểu đồ từ Phoronix ở trên, nhưng bạn có thể xem bài viết gốc để biết thêm chi tiết. Cuối cùng, cần nhấn mạnh rằng một số bản phân phối Linux phổ biến đã có tần số bộ đếm hạt nhân mặc định là 1,000 Hz, như Ubuntu và SteamOS.

Tuy nhiên, việc thay đổi mặc định sẽ giúp các bản phân phối khác đồng bộ hơn.

Nguồn: www.tomshardware.com/software/linux/increased-linux-kernel-timer-frequency-delivers-big-boost-in-ai-workloads